Trước năm 1865, giáo dân Việt Hoa còn thưa thớt, chưa có nhà thờ nên họ thường đi lễ ở Nhà thờ Chợ Quán. Đến năm 1865, linh mục Philippe thuộc Hội Thừa sai Paris từ Trung Quốc sang Chợ Lớn thấy giáo dân người Hoa ngày càng đông nên đã cất một ngôi thánh đường tại đường Phùng Hưng. Nhà thờ mang tên Tổng Lãnh Thiên thần Micae.[2]

Năm 1919, linh mục Gioan Baotixita Huỳnh Tịnh Hướng về cai quản nhà thờ Micae. Vì nhà thờ đã xuống cấp và hư hỏng nặng, ông quyết định chọn một địa điểm khác rộng rãi hơn để cất một ngôi thánh đường mới với tên gọi Jeanne d'Arc. Lô đất ông mua nằm trong khu vực nghĩa địa của người Hoa, mà người Pháp gọi là Plaine Des Tombeaux Saigon (cánh đồng mả Sài Gòn). Linh mục Hướng mua khu đất này với lý do chính là giá rẻ vì là đất nghĩa địa và lúc đó các giáo xứ không có nhiều tiền. Sau này khi nghĩa địa được giải tỏa, ba con đường Nguyễn Tri Phương, Ngô Gia Tự, Nguyễn Chí Thanh đan chéo nhau vây quanh nhà thờ như một bông hoa sáu cánh, cho nên người dân thường gọi là "nhà thờ Ngã Sáu". Nhà thờ khởi công xây năm 1922, khánh thành vào tháng 5 năm 1928.[3]

Năm 1989, linh mục Antôn Huỳnh Thủ Hơn về kế nhiệm, ông rất ngạc nhiên khi thấy nhà thờ không có tượng Thánh quan thầy và càng ngạc nhiên hơn khi phát hiện ra pho tượng thánh Jeanne d'Arc khi bị hỏa thiêu được cất trong nhà kho. Ông quyết định mang pho tượng lên đặt ở cung thánh, cho sơn màu đỏ nơi khắc ngọn lửa cháy dưới chân thánh Jeanne d'Arc.

Đến năm 2005, linh mục Philipphê Trần Tấn Bình ở Tây Ninh đến thăm nhà thờ và ngỏ ý muốn tặng một pho tượng thánh Jeanne d'Arc. Pho tượng nữ thánh Jeanne d'Arc mới này mặc áo giáp, một tay cầm cờ, một tay cầm gươm. Linh mục Hơn đã quyết định đặt pho tượng mới ở cung thánh và đưa pho tượng cũ về đặt tại nhà xứ.[4]